Sau khi phân hoạch các ma trận thành các khối, ta có thể thực hiện các đại số trên chúng. Có thể tính tích của các ma trận khối bằng cách coi các khối của chúng là các phần tử, nhưng điều này tùy vào cách phân hoạch. Để có thể nhân các khối thì phải phân hoạch các ma trận theo cách sao cho cỡ của từng cặp khối thỏa mãn điều kiện của phép nhân ma trận.[3] Cho một ma trận khối A {\displaystyle \mathbf {A} } ( m × p ) {\displaystyle (m\times p)} với q {\displaystyle q} phân hoạch hàng và s {\displaystyle s} phân hoạch cột

A = [ A 11 A 12 ⋯ A 1 s A 21 A 22 ⋯ A 2 s ⋮ ⋮ ⋱ ⋮ A q 1 A q 2 ⋯ A q s ] {\displaystyle \mathbf {A} ={\begin{bmatrix}\mathbf {A} _{11}&\mathbf {A} _{12}&\cdots &\mathbf {A} _{1s}\\\mathbf {A} _{21}&\mathbf {A} _{22}&\cdots &\mathbf {A} _{2s}\\\vdots &\vdots &\ddots &\vdots \\\mathbf {A} _{q1}&\mathbf {A} _{q2}&\cdots &\mathbf {A} _{qs}\end{bmatrix}}}

và một ma trận khối B {\displaystyle \mathbf {B} } ( p × n ) {\displaystyle (p\times n)} với s {\displaystyle s} phân hoạch hàng r {\displaystyle r} phân hoạch cột

B = [ B 11 B 12 ⋯ B 1 r B 21 B 22 ⋯ B 2 r ⋮ ⋮ ⋱ ⋮ B s 1 B s 2 ⋯ B s r ] , {\displaystyle \mathbf {B} ={\begin{bmatrix}\mathbf {B} _{11}&\mathbf {B} _{12}&\cdots &\mathbf {B} _{1r}\\\mathbf {B} _{21}&\mathbf {B} _{22}&\cdots &\mathbf {B} _{2r}\\\vdots &\vdots &\ddots &\vdots \\\mathbf {B} _{s1}&\mathbf {B} _{s2}&\cdots &\mathbf {B} _{sr}\end{bmatrix}},}

và phải "tương thích" với cách phân hoạch của ma trận A {\displaystyle A} , khi đó ta có ma trận tích

C = A B {\displaystyle \mathbf {C} =\mathbf {A} \mathbf {B} }

theo cách nhân ma trận, và C {\displaystyle \mathbf {C} } là một ma trận ( m × n ) {\displaystyle (m\times n)} với q {\displaystyle q} phân hoạch hàng và r {\displaystyle r} phân hoạch cột. Các ma trận con trong ma trận tích C {\displaystyle \mathbf {C} } được tính bằng cách nhân:

C q r = ∑ i = 1 s A q i B i r . {\displaystyle \mathbf {C} _{qr}=\sum _{i=1}^{s}\mathbf {A} _{qi}\mathbf {B} _{ir}.}

hay có thể viết bằng ký hiệu tổng Einstein (lấy tổng ẩn các chỉ số lặp)

C q r = A q i B i r . {\displaystyle \mathbf {C} _{qr}=\mathbf {A} _{qi}\mathbf {B} _{ir}.}